課程資訊
課程名稱
機器學習及其深層與結構化
Machine Learning and Having It Deep and Structured 
開課學期
105-2 
授課對象
電機資訊學院  電機工程學研究所  
授課教師
李宏毅 
課號
CommE5045 
課程識別碼
942 U0590 
班次
 
學分
3.0 
全/半年
半年 
必/選修
選修 
上課時間
星期五7,8,9(14:20~17:20) 
上課地點
電二143 
備註
初選不開放。總人數限100人。
總人數上限:100人 
Ceiba 課程網頁
http://ceiba.ntu.edu.tw/1052CommE5045_ 
課程簡介影片
 
核心能力關聯
核心能力與課程規劃關聯圖
課程大綱
為確保您我的權利,請尊重智慧財產權及不得非法影印
課程概述

本課程著重機器學習在實際問題的應用,並且會花相當的時間深入探討機器學習的深層化和結構化。本課程為進階的機器學習課程,在 2016 年秋季班的「機器學習」(http://speech.ee.ntu.edu.tw/~tlkagk/courses_ML16.html) 中講授過的內容,在這門課中將不再重複,僅會做必要的複習。

本課程目前規劃有以下五個作業(實際內容以開學公告為準):
Recurrent Neural Network (application: speech recognition)
Attention-based Model (application: question answering)
Deep Reinforcement Learning (application: video game playing)
Deep Generative Model (application: Pokemon creation)
Sequence-to-sequence learning (application: chat-bot)
作業以組隊(2~4人一組)方式完成,可以先組好隊後一起來修課。



 

課程目標
一起來深度學習深度學習吧! (沒有打錯字)
 
課程要求
本課程不開放初選,學生在指定時間內完成作業 0 後就可以取得授權碼進行加簽。作業 0 為一基本的機器學習分類問題,可以使用任何套件 (例如:Keras) 來解決這個問題,只要達成老師要求的正確率就算完成。

修課學生需要具備基本的程式設計能力。理論上,電機系大三以上的學生即具備修習本課程所需的程式設計能力。修課學生也需要具備基礎的機器學習知識與實作能力,如果有預修過機器學習相關課程,則上課能較快進入狀況。沒有修過機器學習相關課程的同學可以利用寒假時間,瀏覽資工系林軒田老師的線上機器學習課程(https://youtu.be/nQvpFSMPhr0)或電機系李宏毅老師機器學習課程錄影(https://youtu.be/fegAeph9UaA)。本課程內容和語音處理、影像處理等課程是相關的,如果有預修過相關課程,則對上課所舉的機器學習應用可以有更深刻的體會,但也可以修習本課程之後再去修上述相關課程以了解更多語音處理、影像處理等專業領域的知識。

 
預期每週課後學習時數
 
Office Hours
 
指定閱讀
本課程使用 Ian Goodfellow 等人撰寫的 "Deep Learning" 做為教科書,本書的 Part II 是深層化學習,Part III 是結構化學習。除了教科書的內容,老師也會講授尚未被收錄在教科書中的最新技術。
 
參考書目
 
評量方式
(僅供參考)
   
課程進度
週次
日期
單元主題
第1週
2/24  Introduction of this Course, Announce HW0 (Only the students who finish HW0 on time can register this course.) 
第2週
3/03  Deep Feedforward Networks, Convolutional Networks, Recurrent and Recursive Nets, Announce HW1 
第3週
3/10  Tensorflow  
第4週
3/17  Special Network Structures, Computational Graph  
第5週
3/24  Sequence-to-sequence & Attention, Announce HW2 
第6週
3/31  guest speaker: Prof. Yun-Nung Chen 
第7週
4/07  guest speaker: Prof. Chia-Hsiang Yang 
第8週
4/14  No lecture due to midterm exam 
第9週
4/21  Deep Generative Model 
第10週
4/28  Deep Generative Model, Announce HW3 (guest speaker: Dr. Yu Tsao) 
第11週
5/05  Deep Generative Model 
第12週
5/12  Deep Generative Model 
第13週
5/19  Deep Generative Model, Announce HW4  
第14週
5/26  Deep Generative Model 
第15週
6/02  Reinforcement Learning 
第16週
6/09  Inverse Reinforcement Learning 
第17週
6/16  No lecture due to final exam